Đầu năm 1961 các lực lượng Việt Minh đã thành lập xong "Quân Giải phóng miền Nam" với quy mô cấp quân khu. Việc tổ chức quân sự vẫn theo khuôn mẫu của Quân đội Nhân Dân Việt Nam nhưng vẫn có sự tổ chức giống với Việt Minh lúc trước, cho phù hợp với tổ chức ở miền nam. Theo đó, lực lượng quân sự tập trung ở các huyện sẽ được chọn lọc, huấn luyện và trang bị thành các tiểu đoàn cấp tỉnh. Từ các tiểu đoàn này sẽ hình thành đơn vị cấp trung đoàn đóng ở quân khu. Tuy nhiên qua các trận đánh, những đơn vị chính quy có thương vong tăng cao và khó có thể tái huấn luyện bổ sung tổn thất một cách kịp thời. Việc tăng cường lực lượng cũng được điều động từ miền Tây Nam Bộ lên, vốn là những vùng đông nhân lực.

Cuối giai đoạn chiến tranh, việc lấy quân tại miền Nam không còn đủ số lượng để đáp ứng cho nhu cầu tác chiến mở rộng, họ đã dùng binh lính miền Bắc hành quân vào theo đường Trường Sơn. Lúc này, cho đến khi kết thúc chiến tranh, tại chiến trường miền Nam có hai quân đội chính quy của Cộng sản, không tính đến du kích quân. Thứ nhất là Quân đội Nhân dân Việt Nam, gồm các thanh niên miền Bắc lên đường Nam tiến, dưới chỉ huy trực tiếp của Bộ tổng tư lệnh Quân đội Nhân dân tại Hà Nội (còn gọi là quân Bắc Việt). Thứ hai là Quân Giải phóng miền Nam Việt Nam thuộc bộ chỉ huy quân Giải phóng tại rừng Tây Ninh (thường gọi là quân Việt Cộng).

Đầu tiên, khi đường Trường Sơn còn hẹp, họ chỉ đưa được một số nhân lực hạn chế gồm toàn các bộ đội Việt Minh từng tập kết ra bắc tám năm về trước. Thành phần quân lính miền Bắc trong quân Việt Cộng còn ít, chỉ chiếm 10-20% trên tổng quân số của toàn chiến trường, mà có khi họ là người gốc miền nam từng đi tập kết chứ chưa hẳn là người bắc. Sau này, khi đến 1965, khoảng 3 vạn quân đã từ miền bắc thâm nhập vào, và chiếm khoảng 50% vào năm 1968. Vẫn có các tiểu đoàn thâm nhập vào sâu để bổ sung quân số và trang bị cho những đơn vị bị tổn thất. Tuy nhiên trong thời kỳ 1960-1965 tại chiến trường miền Nam các hoạt động tác chiến chủ yếu là Quân Giải phóng còn các đơn vị quân đội Việt Nam Dân chủ Cộng hòa chủ yếu đang đứng chân vòng ngoài tại tuyến đường Trường Sơn, Tây Nguyên họ đang xây dựng các căn cứ để đánh lớn sau này. Đoàn quân lớn nhất thâm nhập vào được sâu nhất là đơn vị chi viện U Minh của sĩ quan Phạm Văn Trà, vào năm 1964.

Năm 1964 khi Hoa Kỳ phát hiện ra các lực lượng Quân đội Nhân Dân Việt Nam từ miền bắc di chuyển vào Trường Sơn và thâm nhập, thì VNDCCH tuyên bố công khai vai trò chi viện của họ, nhưng không công khai sự lãnh đạo. Mặt trận Dân tộc Giải phóng vẫn nắm vau trò chủ chốt trên danh nghĩa. Mặc dù miền bắc đã chi viện rất lớn vũ khí, chuyên môn, thuốc men và nguồn cán bộ có trình độ vào miền nam.

Sau gần hai năm kinh nghiệm chiến đấu Quân Giải phóng đã biết cách xử lý các nhược điểm của chiến thuật trực thăng vận và thiết xa vận của quân đội Việt Nam Cộng hoà. Ngày 2 tháng 1 năm 1963 tại tỉnh Tiền Giang đã xảy ra trận Ấp Bắc và quân đội Việt Nam Cộng hoà đã thất bại nặng. Trận đánh này được báo chí thế giới miêu tả kỹ lưỡng và cho thấy QGP không còn là các nhóm quân nhỏ bất lực trước trực thăng vận, thiết xa vận nữa mà họ đã lớn mạnh đủ để đánh bại quân cơ động của đối phương.

Trong các năm 1963 và 1964 QGP thắng thế tiến công trên toàn chiến trường và đến tháng 12 năm 1964 họ tiến hành chiến dịch Bình Giã tại tỉnh Bà Rịa. Trong vòng một tháng họ điều động các đơn vị lên đến cấp sư đoàn liên tục làm thiệt hại các chiến đoàn thiết giáp cơ động và các đơn vị dự bị chiến lược của Quân lực Việt Nam Cộng hoà. Cùng với các trận đánh lớn khác họ ép quân đội Việt Nam Cộng hoà lui về thế thủ gần các thành phố lớn. Ở nông thôn chỗ nào QGP đến là họ cho phá dỡ ấp chiến lược. Cuối năm 1963, khi Tổng thống Diệm bị lật đổ, chỗ nào còn ấp chiến lược thì cũng bị dân chúng tự nổi lên phá hết.